Việc chế tạo lớp tàu khu trục Fubuki tiên tiến được chấp thuận vào năm tài chính 1923 như một phần của chương trình có tham vọng cung cấp cho Hải quân Đế quốc Nhật Bản một ưu thế về chất lượng so với những tàu chiến hiện đại nhất của thế giới.[3] Khả năng thể hiện của lớp Fubuki là một bước nhảy vọt so với các thiết kế tàu khu trục trước đó, nên chúng được gọi là các "tàu khu trục đặc biệt" (tiếng Nhật: 特型 - Tokugata). Kích thước lớn, động cơ mạnh mẽ, tốc độ cao, bán kính hoạt động lớn và vũ khí trang bị mạnh chưa từng có khiến cho các tàu khu trục này có được hỏa lực tương đương nhiều tàu tuần dương hạng nhẹ của hải quân các nước khác.[4] Shirakumo được chế tạo tại Xưởng đóng tàu Fujinagata ở Osaka, được đặt lườn vào ngày 27 tháng 10 năm 1926. Nó được hạ thủy vào ngày 27 tháng 12 năm 1927 và đưa ra hoạt động vào ngày 28 tháng 7 năm 1928.[5] Nguyên được dự định mang số hiệu đơn giản là "Tàu khu trục số 42", nó được hoàn tất dưới tên gọi Shirakumo.